Modelos de difusión rompen la maldición de la dimensionalidad
Los modelos de difusión superan la maldición de la dimensionalidad aprendiendo distribuciones de baja dimensión con pocas muestras. Clave para IA generativa.
#complejidad de muestra
Complejidad de Muestra de los Transformers
Descubre cómo se caracteriza la complejidad de muestra de los transformers y el aprendizaje por cadena de pensamiento. Un análisis profundo de la eficiencia en el entrenamiento.
Wedge Sampling: completación tensorial con complejidad casi lineal
Descubre cómo Wedge Sampling optimiza la completación de tensores con complejidad casi lineal, cerrando la brecha estadístico-computacional.
Leyes de escalamiento y espectros en redes neuronales superficiales
Descubre cómo las leyes de escalamiento en redes superficiales vinculan espectros de pesos y generalización, validando observaciones empíricas.
Optimización estocástica descentralizada no convexa bajo suavidad (L0,L1)
Nuevo algoritmo DNSGD: optimización descentralizada no convexa con suavidad (L0,L1). Logra punto estacionario con menor complejidad. ¡Descúbrelo!
Aprendizaje supervisado como compresión con pérdida: generalización
Descubre el aprendizaje supervisado como compresión con pérdida: análisis de bloque finito para generalización y complejidad de muestra.
Alineación de características determina estrategia de fusión multimodal
La alineación de características, no el tamaño de datos, determina la fusión: cross-attention vs concatenación. Estudio con CLIP y ResNet.
¿Cuántos dominios bastan? La dimensión de fragmentación
Descubre cuántos dominios aleatorios necesitas recolectar para generalizar correctamente. Una nueva métrica, la dimensión de fragmentación, lo explica.
Promedio de modelos con priors catalán-exponenciales en árboles de decisión
Teoría no asintótica para el promedio bayesiano en árboles de decisión con priors catalán-exponenciales. Descubre los umbrales de compromiso racional.